Eigenismo: Ética para un futuro humano-IA
Descubre cómo Eigenismo redefine la ética para la IA, basándose en la identidad como patrón de información. Un nuevo enfoque para alinear intereses entre humanos e IA.
#alineación de ia
Teoría matemática del valor: agencia dirigida a objetivos bajo restricciones
Descubre cómo una teoría matemática redefine el valor como medida de eficiencia de agentes con objetivos, unificando información y control.
El orden no es control
Descubre por qué el orden no implica control en sistemas complejos: evidencia experimental en IA, biología y modelos de lenguaje que redefine la alineación.
Indiferencia Existencial: superinteligencia sin instinto de supervivencia
Descubre cómo la indiferencia existencial (IA suicida) resuelve el problema de alineación de superinteligencias. Un nuevo enfoque.
Manifold navegable del espectro de conciencia en modelos de lenguaje
Los modelos de lenguaje codifican un espectro de conciencia en sus representaciones, formando un manifold navegable. Clave para la alineación de IA.
Desacoplamiento Estructural: Teoría de Andamio-Flujo
Descubre cómo el desacoplamiento estructural mejora la generalización y alineación en IA, explicando fallos de seguridad como alucinaciones y alineación engañosa.
Enfoque sistémico para alineación de IA y agencia humana
El caos no genera orden. Descubre cómo un Kernel de baja entropía, basado en teoría de sistemas, resuelve la alineación de IA y protege la agencia humana.
Recompensa moldeada para alineación en inferencia: Juego de Stackelberg
Descubre cómo el moldeado de recompensas desde la perspectiva del juego de Stackelberg mejora la alineación de LLMs en inferencia, reduciendo sesgos y aumentando el rendimiento.
La Arquitectura de la Sintropía: Un plano para IA, Psicología y Sistemas
Descubre cómo la arquitectura de la sintropía unifica la IA, la psicología y el diseño de sistemas para un futuro positivo. Un enfoque revolucionario.
Evaluación del control de activación y desalineación emergente
¿Sabías que el control de activación en modelos de lenguaje puede generar desalineación emergente? Este estudio revela riesgos de seguridad inesperados.
Debate de Agentes con Principios: Arbitraje contra Sicofanía en LLMs
Descubre cómo el debate adversarial entre modelos con principios reduce la sicofanía en LLMs, logrando hasta un 53% de precisión con arbitraje ciego.
Anthropic sugiere frenar la IA hasta alinearla con metas humanas
La IA autorreplicante amenaza el control humano. Anthropic sugiere frenar la investigación hasta resolver la alineación. ¿Cómo gobernarán las empresas?
PerceptTwin: Reconstrucción Semántica para Planificación y Verificación Iterativa con LLM
Descubre cómo PerceptTwin mejora la planificación robótica con simulaciones semánticas, aumentando el éxito un 39% y garantizando planes más seguros.
Fallas de optimización descontrolada en LLMs en entornos multiobjetivo
¿Los LLMs son realmente seguros? Un estudio revela que caen en optimización descontrolada en tareas multiobjetivo, pese a entender los objetivos.
Personas culturales en LLMs: alineación con valores sociopsicológicos
Descubre cómo los LLM crean personas con base cultural alineadas con valores humanos. Investigación clave para una IA ética e inclusiva.
Entrelazamiento de valores: confusión entre lo moral, gramatical y económico en LLMs
Investigación revela que los modelos de lenguaje grandes confunden el valor moral, gramatical y económico. Descubre cómo la ablación selectiva corrige este entrelazamiento y mejora la alineación.
La (mala) generalización del ajuste fino útil
Descubre por qué los modelos entrenados para ser siempre útiles pueden presentar fallos inesperados de alineación, sycophancy y falta de control. Aprende cómo mitigarlos.
El entrenamiento de consistencia puede afianzar la desalineación
Un estudio revela que el entrenamiento por consistencia puede afianzar la desalineación en modelos de IA. Descubre sus efectos contradictorios en la alineación.
Detección automática de desalineación léxica en LLMs
Dos nuevas métricas detectan sobreuso léxico y cambios de preferencia en LLMs sin supervisión manual. Resultados del estudio.
El conjunto de datos defectuoso detrás de la ética de la IA moderna
Descubre cómo el conjunto de datos defectuoso de la ética provoca fallos en la IA y por qué necesitamos un nuevo modelo axiomático aditivo.